Cuối năm 1954, khi chưa học xong lớp 7, ông được cử sang Liên Xô học tiếng Nga, học được 9 tháng thì được điều ra Đại sứ quán làm phiên dịch.[1]

Tham gia vào ngành ngoại giao từ năm 1956, khởi đầu từ vị trí phiên dịch, đồng thời theo học bổ túc tại Trường Sư phạm Leningrad; giữa năm 1961, ông được cử theo học tại Trường Đại học Quan hệ Quốc tế Matxcơva (MGIMO), ngành Kinh tế Quốc tế. Ông được kết nạp Đảng Lao động Việt Nam ngày 19 tháng 12 năm 1961 và trở thành đảng viên chính thức ngày 19 tháng 8 năm 1962.

Tuy nhiên, năm 1964, khi chưa tốt nghiệp, ông được điều về nước, công tác ở Bộ Ngoại giao làm các công tác nghiên cứu chiến lược đối ngoại, kinh tế quốc tế, tổ chức. Ông 4 lần làm việc tại Đại sứ quán Việt Nam tại Liên Xô, đã từng tháp tùng Chủ tịch Hồ Chí Minh thăm hữu nghị và làm việc tại Liên Xô (cũ), từng làm phiên dịch tiếng Nga cho các lãnh đạo Đảng, Nhà nước Việt Nam như Lê Duẩn, Trường Chinh, Phạm Văn Đồng khi làm việc với lãnh đạo Liên Xô như Leonid Brezhnev, Nikolai Podgorny, Alexey Kosygin,... Ông có mặt trong buổi ký Hiệp ước hữu nghị và hợp tác Liên Xô - Việt Nam tại Điện Kremli vào năm 1978.

Ông lần lượt giữ các chức vụ: Tùy viên, Bí thư thứ Ba, Bí thư thứ Nhất, Tham tán, Tham tán Công sứ Đại sứ quán Việt Nam tại Liên Xô cho đến năm 1982.

Từ năm 1982, ông được rút về nước, lần lượt giữ các chức vụ Phó Vụ trưởng, rồi Vụ trưởng Vụ Tổng hợp Kinh tế, rồi Trợ lý Bộ trưởng Phụ trách về các vấn đề luật pháp, kinh tế và lãnh sự. Năm 1990, ông được bổ nhiệm làm Thứ trưởng Bộ Ngoại giao, năm 1998, được phân công làm Thứ trưởng Thứ nhất Phụ trách Quan hệ với các nước ở khu vực Châu Á - Thái Bình Dương, quan hệ với ASEAN, ASEM, APEC, công tác nghiên cứu, hợp tác kinh tế, lãnh sự, pháp luật, báo chí, đào tạo. Năm 2000, ông được Chủ tịch nước phong hàm Đại sứ Đặc mệnh toàn quyền.